VMX: disable SMEP feature when guest is in non-paging mode
authorDongxiao Xu <dongxiao.xu@intel.com>
Wed, 30 Jan 2013 17:17:30 +0000 (09:17 -0800)
committerDongxiao Xu <dongxiao.xu@intel.com>
Wed, 30 Jan 2013 17:17:30 +0000 (09:17 -0800)
commite7dda8ec9fc9020e4f53345cdbb18a2e82e54a65
tree794a34ace0d879bfe2f87cc8dc6c1cb7f274c46d
parent1453984eab1297559e016d4e907a27e55997191c
VMX: disable SMEP feature when guest is in non-paging mode

SMEP is disabled if CPU is in non-paging mode in hardware.
However Xen always uses paging mode to emulate guest non-paging
mode with HAP. To emulate this behavior, SMEP needs to be manually
disabled when guest switches to non-paging mode.

We met an issue that, SMP Linux guest with recent kernel (enable
SMEP support, for example, 3.5.3) would crash with triple fault if
setting unrestricted_guest=0 in grub. This is because Xen uses an
identity mapping page table to emulate the non-paging mode, where
the page table is set with USER flag. If SMEP is still enabled in
this case, guest will meet unhandlable page fault and then crash.

Signed-off-by: Dongxiao Xu <dongxiao.xu@intel.com>
Signed-off-by: Xiantao Zhang <xiantao.zhang@intel.com>
Committed-by: Keir Fraser <keir@xen.org>
xen/arch/x86/hvm/vmx/vmx.c